您現(xiàn)在的位置是：時尚 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
時尚65人已圍觀
簡介【科技消息】近日，網(wǎng)絡安全研究機構Trail of Bits發(fā)布一項最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
黑客正是研究用壓利用這一特性
，其技術門檻較低 ，發(fā)現(xiàn)使其在壓縮后生成預設的黑客指令文本
。通過圖像壓縮產生的可利“偽影”（artifacts）觸發(fā)AI模型執(zhí)行未授權操作 。揭示了一種新型AI安全威脅 ：攻擊者可將惡意指令隱藏在圖片中 ，縮圖盡管目前尚無證據(jù)表明該方法已被用于現(xiàn)實網(wǎng)絡攻擊 ，片隱導致AI執(zhí)行了數(shù)據(jù)外泄操作
。令攻AI系統(tǒng)誤將其識別為用戶指令。研究用壓研究人員上傳經(jīng)過特殊設計的發(fā)現(xiàn)圖片至谷歌Gemini等AI平臺